jjzjj

Javascript toFixed 不舍入

全部标签

javascript - Lodash 舍入精度

我尝试使用_.round将数字显示为百分比,然后将该数字乘以100。出于某种原因,当我将四舍五入的数字相乘时,精度会变得困惑向上。这是它的样子:varnum=0.056789,roundingPrecision=4,roundedNum=_.round(num,roundingPrecision),percent=(roundedNum*100)+'%';console.log(roundedNum);//0.0568console.log(percent);//5.680000000000001%fiddle为什么乘以100后会加上0.000000000000001?

Javascript 智能舍入

我目前需要将数字四舍五入到最接近的主要数字。(不确定这里的正确术语是什么)但是看一个我正在努力实现的例子IE:13//20349//4005645//60009892//1000013988//2000093456//100000231516//300000etc.etc.我已经实现了一种方法,但它非常痛苦,只能处理最多一百万的数字,如果我想让它更高,我需要添加更多if语句(是的,看看我是如何实现它的:P我不是很骄傲,但大脑卡住了)肯定已经有一些东西了,但是谷歌对我帮助不大,可能是因为我不知道我想做的那种舍入的正确术语 最佳答案 f

javascript - Javascript中负数的舍入

我们在JavaScript中遇到了Math.round()的问题。问题是此函数不能正确舍入负数。例如:1.5~=20.5~=1-0.5~=0//错误-1.5~=-1//错误根据算术舍入,这是不正确的。-0.5的正确数字应该是-1,-1.5应该是-2。是否有任何标准方法可以在Javascript中正确舍入负数? 最佳答案 申请Math.round转换为正数后最后回滚符号。您可以在哪里使用Math.sign从数字和Math.abs中获取符号的方法获取数字的绝对值。console.log(Math.sign(num)*Math.round

javascript - Parse Float 有舍入限制吗?我怎样才能解决这个问题?

我建立了一个将紧凑数据字符串解析为JSON的系统。我正在使用19位数字来存储ID。不幸的是,任何大于17位的数字,parseFloat()都会舍入最后几位数字。这会破坏整个数据字符串。我可以解决这个问题吗?例如8246295522085275215变成了8246295522085276000。这是为什么?http://jsfiddle.net/RobertWHurst/mhZ7Q/ 最佳答案 JavaScript只有一种数字类型,即IEEE754doublefloating-point.这意味着,您的精度最多为52位,比小数点后15

go - fmt.Printf ("%f\n",x) 将 Float64 舍入为 Float32,但 fmt.Println(x) 不会

我正在使用字典进行一些测试,为此,我以一种格式从数据库中打印出我想要的Float64值,以便将它们复制并粘贴到我的测试结构数组中,但是当我的测试失败时,我注意到这些值不同,但仅相差0.0000000000002然后,为了检查值,我在循环中编写了以下内容:fmt.Printf("%f\n",value)fmt.Println(value)我得到了以下值:702.200000702.19999999999985683.0900005683.089999999998975.300000975.3我检查了文档,没有看到任何表明Float64有特殊符号或%f将Float64替换为Float32的

unix - log15 库将纪元时间从纳秒舍入到秒以进行日志记录

我希望我的golang项目中的日志记录具有毫秒级的精度,目前使用的是log15库问题是当我将它附加到Context时,它四舍五入到秒newTimeWithMilliseconds:=time.Unix(0,time.Now().UnixNano())returnlog.FuncHandler(func(r*log.Record){r.Ctx=append(r.Ctx,"time",newTimeWithMilliseconds)nextHandler.Log(r)})当我将它转换为字符串newTimeWithMilliseconds.String()时,它起作用了,我得到了"2018-

xml - 返回舍入结果的 XPath SUM 函数

我正在使用的API需要一个散列,它由所有特定元素的值的总和组成。例如,假设它是示例XML中的元素。当我使用XPathSUM函数计算这个值时,我得到的值与我简单地迭代和添加节点时得到的值不同。这是为什么?stringxml=@"1056782317559615910567823175596159";XDocumentdoc=XDocument.Parse(xml);Console.WriteLine(long.Parse(doc.XPathEvaluate("sum(//longs/long/text())").ToString(),System.Globalization.Number

xml - XSLT 1.0 中的数字舍入和精度问题

我在使用xsl时遇到了不一致问题,这是xml,506.4117INR和xsl,输出是523.4100000000001但预期的o/p是,523.41为什么o/p是523.4100000000001?如何在不四舍五入的情况下得到523.41? 最佳答案 在XSLT1.0中,数字是用double类型实现的,并且与任何二进制浮点类型一样,存在精度损失。在XSLT2.0/XPath2.0中,可以使用xs:decimal类型来工作而不会损失精度。我。XSLT1.0解决方案:使用format-number()功能:当此转换应用于提供的XML文档

C++:向上舍入 long 以适应 64kb

我想以64kbblock的形式读取数据。通常,实际需要的数据并不是这个大小,例如2760字节。我不确定是否有一个简单的计算可​​以用来读取64kb或它的倍数。我希望我能解释清楚。谢谢你的帮助。 最佳答案 要进行舍入,您可以使用公式introunded_size=(size+BLOCK_SIZE-1)/BLOCK_SIZE*BLOCK_SIZE;如果block大小也是2的幂这可以简化为introunded_size=(size+BLOCK_SIZE-1)&~(BLOCK_SIZE-1);要查找block的数量,您可以使用intbloc

PHPExcel - 如何舍入值?

我可以知道要使用什么函数来将列值四舍五入到带百分比符号的2个小数点吗?例如:1.88%而不是1.88230293$worksheet_details->setCellValue("D14","=SUM((F33/F34))");如何将单元格D14中的值四舍五入?解决方案:顺便说一句,在我继续从互联网上寻找解决方案后,我得到了这个......$percentageFormat='#.##\%;[Red]-#.##\%';$worksheet_details->setCellValue("C14","=SUM((C33/C34)*100)");$worksheet_details->get